floating point
浮動小数点
名詞
floating pointは、コンピューターが非常に大きな数や非常に小さな数を効率的に扱うための数値表現方式です。固定小数点方式とは異なり、小数点の位置を動的に変更できるため、限られたメモリ容量で極めて広い範囲の数値を表現できるのが特徴です。
精度と誤差の特性
この方式では、数値は仮数部と指数部に分けて保持されます。しかし、すべての実数を完全に表現できるわけではなく、近似値として保持されるため、計算過程で丸め誤差と呼ばれる微小な誤差が発生することがあります。そのため、金融計算のように厳密な精度が求められる場面では、floating pointではなく、fixed point(固定小数点)や専用の十進数型が使用されることが一般的です。
データ型の種類と使い分け
プログラミングにおいては、主に以下の2つの精度が使い分けられます。
single precision(単精度):メモリ消費が少なく処理速度が速いですが、精度は低くなります。
double precision(倍精度):より高い精度を持ち、科学技術計算や複雑なシミュレーションに不可欠です。
現代のほとんどの汎用的な計算では、精度のバランスが良いdouble precisionが標準的に利用されています。
意味
名詞浮動小数点
コンピューターシステムにおいて、小数点の位置を変動させることで、固定された桁数で広範囲の数値を表現する実数の表現方法のこと
The calculation was performed using double-precision floating point arithmetic to ensure accuracy.
精度を確保するため、計算は倍精度浮動小数点演算を用いて行われた。
関連語
fixed pointarithmeticbinarybitbytemantissaexponentsignprecisionfloatdoubledecimalnumberdigitcomputationalgorithmprocessorhardwaresoftwarememoryregisteroverflowunderflowroundingtruncationerroraccuracyapproximationscalarvectormatrixtensorcompilervariableconstantintegerfractionreal numberrational numberirrational numberbaseradixnormalizationbit depthcoprocessorinstruction setlatencythroughputperformancecalculationsimulationgraphicsrenderingdata typecastingconversionepsilonmagnitudebitmaskendiannessarchitecturelogic gatecircuitry